机器学习（ML）模型已广泛应用于各种应用，包括图像分类，文本生成，音频识别和图形数据分析。然而，最近的研究表明，ML模型容易受到隶属推导攻击（MIS），其目的是推断数据记录是否用于训练目标模型。 ML模型上的MIA可以直接导致隐私违规行为。例如，通过确定已经用于训练与某种疾病相关的模型的临床记录，攻击者可以推断临床记录的所有者具有很大的机会。近年来，MIS已被证明对各种ML模型有效，例如，分类模型和生成模型。同时，已经提出了许多防御方法来减轻米西亚。虽然ML模型上的MIAS形成了一个新的新兴和快速增长的研究区，但还没有对这一主题进行系统的调查。在本文中，我们对会员推论和防御进行了第一个全面调查。我们根据其特征提供攻击和防御的分类管理，并讨论其优点和缺点。根据本次调查中确定的限制和差距，我们指出了几个未来的未来研究方向，以激发希望遵循该地区的研究人员。这项调查不仅是研究社区的参考，而且还为该研究领域之外的研究人员带来了清晰的照片。为了进一步促进研究人员，我们创建了一个在线资源存储库，并与未来的相关作品继续更新。感兴趣的读者可以在https://github.com/hongshenghu/membership-inference-machine-learning-literature找到存储库。
translated by 谷歌翻译
在进行研究，设计和系统开发时，HCI研究人员一直在将注意力从个人用户转移到社区。但是，我们的领域尚未建立对社区合并研究方法的挑战，利益和承诺的凝聚力，系统的理解。我们对47个计算研究论文进行了系统的综述和主题分析，讨论了与社区的参与性研究，以开发过去二十年来，以开发技术文物和系统。从这篇评论中，我们确定了与项目演变相关的七个主题：从建立社区伙伴关系到维持结果。我们的发现表明，这些项目的特征是几个紧张关系，其中许多与研究人员的力量和位置以及计算研究环境有关，相对于社区伙伴。我们讨论了我们的发现的含义，并提供方法论建议，以指导HCI，并更广泛地计算研究中心社区的实践。
translated by 谷歌翻译